Waldheim menyertai perkhidmatan diplomatik Austria pada 1945 selepas belajar undang-undang di Universiti Vienna. Beliau ditugas di Paris pada 1946 dan di Kementerian Luar Negeri di Vienna dari 1951-1956. Pada 1956 bertugas sebnagai duta di Kanada dan kembali sebagai Menteri pada 1964. Dari 1968-1970 menjadi Menteri Luar Negeri Austria dan Parti Rakyat Austria. Kemudian sebagai wakil tetap ke PBB pada 1970. Pada 1971 bertanding dalam pilihan raya presiden Austria.